Ferdinand Lewis Alcindor Jr. sinh ra ở thành phố New York, là con duy nhất của Cora Lillian, nhân viên kiểm tra giá cửa hàng và Ferdinand Lewis Alcindor Sr., một sĩ quan cảnh sát quá cảnh và nhạc sĩ nhạc jazz.[14][15] Ông to và cao bất thường từ nhỏ. Lúc mới sinh ông nặng 12 lb 11 oz (5,75 kg) và cao 22 1⁄2 inch (57 cm),[16] và đến năm chín tuổi, ông đã cao 5 ft 8 in (1,73 m). Đến năm lớp tám (13 tuổi14), ông đã cao 6 ft 8 in (2,03 m) và có thể đập slamdunk vào rổ bóng rổ cao 10 ft (3,0 m).[17][18] Cuối cùng ông ạt được chiều cao 7 ft 2 in (2,18 m) khi anh vào NBA năm 22 tuổi.

Alcindor bắt đầu những thành tích bóng rổ phá kỷ lục từ khi còn nhỏ. Ở trường trung học, ông đã dẫn dắt đội bóng Power Memorial Academy của huấn luyện viên Jack Donahue tới ba chức vô địch giải Công giáo thành phố New York, một chuỗi chiến thắng 71 trận và kỷ lục chung 79-2.[19] Điều này mang lại cho anh một biệt danh "The tower from Power".[20] Tổng số điểm 2.067 của anh là một kỷ lục của trường trung học thành phố New York.[17] Đội đã giành chức vô địch bóng rổ nam sinh trung học quốc gia khi Alcindor học lớp 10 và 11 và là á quân năm cuối.[20] Alcindor đã có một mối quan hệ căng thẳng với huấn luyện viên của mình. Trong cuốn sách năm 2017 "Coach Wood and Me", Abdul-Jabbar kể lại một lần mà Donahue gọi anh là nigger.[21]